Learning Calibrated Confidence for Multi-Agent Collaboration
多智能体协作中的校准置信度学习
🧭 多智能体协作 · 置信度校准 ★ 深度解读
University of Science and Technology of China · Qwen Business Unit of Alibaba · National University of Singapore
让多智能体在 RL 中联合学习任务与校准置信度，并在交接与最终输出传递该信号，提升协作准确率与可靠性
📌 工作参考价值（4 点）
- 在多级 Agent 检索/推理流水线中，每个 handoff 都附上 calibration 后的置信度，而不仅是最终答案；下游做 query 分解、召回、重排或审核时，可以把上游置信度作为显式特征，决定是否追加检索、采信或改写中间结果。
- 训练下游 Agent 时，上游模型冻结并用其真实报告做训练数据，避免离线报告与在线行为不一致；可用 confidence-aware weighting 的做法：把置信度 mask 掉重打分，以 per-token log-prob 变化识别真正受置信度影响的位置，对这些位置加权 task advantage，能强化模型对置信度信号的利用。
- 最终置信度可用于选择性回答和定向复查：高置信请求自动返回或进入低成本通道，低置信请求追加检索/二次审核/人工兜底，实现覆盖率和准确率的可控权衡；在电商搜索、广告文案生成、Agent 客服等对可靠性敏感的场景尤其适用。
- 小心未校准置信度：论文显示去掉 BCE calibration loss 后，融合场景准确率会低于完全不传置信度的 MAS；也就是说不可靠的置信度可能比没有信号更误导下游，上线前应做 Brier/AUROC 校验。